SCOPE: Self-Play via Co-Evolving Policies for Open-Ended Tasks
SCOPE:无外部监督的协同进化自博弈框架
🧭 Self-Play协同进化 · 开放式任务训练
University of Edinburgh · Imperial College London · Miniml.AI
通过挑战者与求解器协同进化和自我评分机制,无需外部监督即可提升LLM在开放式任务上的表现
📌 工作参考价值(4 点)
- 自博弈对抗生成训练数据:在电商推荐中,可让一个模型生成“用户需求描述”(挑战者),另一个模型给出推荐结果(求解者),通过自我评判打分,无需人工标注即可持续提升推荐质量。
- 基于源文档的自动评分标准生成:self-judge 从文档自动生成评估准则的机制,可直接用于商品搜索、文案生成等场景的自动化评估,替代人工或大模型评判。
- 协同进化的课程学习:挑战者根据求解者表现动态调整任务难度,这一思想可用于推荐模型的训练数据采样,从简单到困难逐步提升模型能力,避免训练饱和。
- 多轮检索与合成优化:Solver 的多轮检索回答模式类似 Agent 的多次信息获取,其训练方法可迁移到电商 Agent 的检索策略优化,提升信息收集与综合能力。